Sovranità digitale: che significato ha davvero il controllo senza un'AI affidabile?

Quando si parla di sovranità digitale, la discussione si concentra spesso sull'infrastruttura cloud, sulla localizzazione dei dati e sulla dipendenza da fornitori esterni. È comprensibile: si tratta di aspetti tangibili, relativamente facili da identificare e, almeno in parte, da misurare. Oggi però il tema è più ampio. Con l'intelligenza artificiale sempre più integrata nei servizi pubblici, nei processi amministrativi e nelle decisioni che riguardano cittadini e imprese, possiamo davvero parlare di sovranità digitale senza comprendere pienamente il funzionamento di questi sistemi?

Avere il controllo dell'infrastruttura non significa necessariamente avere il controllo di ciò che accade al suo interno. Un ente pubblico può sapere dove risiedono i propri dati, ma non avere una visione completa dei modelli che li utilizzano, della logica con cui producono risultati o delle responsabilità associate alle decisioni che contribuiscono a supportare.

La sovranità digitale riguarda la capacità di mantenere un livello di controllo sufficiente sull'ambiente tecnologico dell'organizzazione per poter prendere decisioni consapevoli su come esercitare tale controllo.

Applicato all'intelligenza artificiale, questo principio solleva una serie di domande molto concrete:

· Sappiamo quali sistemi di AI vengono utilizzati all'interno dell'organizzazione?

· Comprendiamo i dati su cui si basano?

· Possiamo ricostruire il processo che ha portato a uno specifico risultato?

· È chiaro chi è responsabile quando qualcosa non funziona come previsto?

Sono questioni meno visibili rispetto alle decisioni su infrastrutture e fornitori cloud, ma non per questo meno importanti. Senza risposte chiare, si rischia di mantenere un controllo solo formale sulla tecnologia, senza avere la reale capacità di governarne il comportamento. E questa è, di fatto, una perdita di controllo che compromette il percorso verso la sovranità digitale.

Per questo considero l'AI affidabile (trustworthy AI) una componente essenziale della sovranità digitale. Non si tratta di un'etichetta da applicare a un modello una volta completato lo sviluppo, né di un esercizio di conformità da affrontare poco prima di un audit. È piuttosto un approccio alla progettazione, all'utilizzo e al monitoraggio dell'intelligenza artificiale lungo tutto il suo ciclo di vita, affinché i risultati possano supportare decisioni affidabili e trasparenti.

L'intelligenza artificiale rende sempre più difficile per i leader del settore pubblico considerare privacy, sicurezza e compliance come discipline separate.

La scelta dei dati influenza il comportamento dei modelli. Una vulnerabilità può compromettere non solo un sistema, ma anche l'affidabilità delle decisioni che quel sistema supporta. Allo stesso tempo, la compliance non si limita più alla protezione delle informazioni: trasparenza, spiegabilità, tracciabilità e accountability sono diventate altrettanto importanti. Queste dimensioni sono profondamente interconnesse. Gestirle attraverso processi separati che si incontrano solo alla fine può creare zone d'ombra proprio nei punti in cui la supervisione è più necessaria.

Adottare un approccio basato sulla trustworthy AI significa collegare questi elementi fin dall'inizio: comprendere i dati utilizzati, valutarne l'idoneità, proteggere modelli e sistemi, documentare le decisioni chiave e monitorare costantemente i risultati dopo il rilascio. Questo non elimina ogni rischio. Consente però di rendere il rischio visibile, attribuibile e gestibile. Ed è difficile immaginare una vera sovranità digitale senza queste condizioni, che permettono ai responsabili del settore pubblico di prendere decisioni informate con maggiore consapevolezza. In questa prospettiva pratica e orientata al controllo, la governance assume un ruolo centrale.

Se la governance entra in gioco solo dopo che un progetto è stato sviluppato, può forse aiutare a superare una verifica di conformità, ma difficilmente sarà sufficiente a garantire fiducia e controllo nel lungo periodo.

A quel punto, infatti, molte scelte fondamentali sono già state fatte: i dati sono stati selezionati, i modelli costruiti e il contesto di utilizzo definito.

La governance dovrebbe accompagnare il progetto fin dall’inizio, per distinguere i sistemi in base al loro impatto, al tipo di dati utilizzati e alle conseguenze delle decisioni che supportano. Un modello impiegato per un’attività interna e circoscritta non presenta necessariamente gli stessi rischi di un sistema che contribuisce a determinare l’accesso a un servizio pubblico. Trattarli allo stesso modo sarebbe inefficiente. Trattarli entrambi senza una valutazione consapevole sarebbe irresponsabile.

C’è poi un aspetto che rischia di essere sottovalutato: un sistema di AI non resta uguale a sé stesso.

I dati possono cambiare, così come le condizioni operative, le regole e le aspettative delle persone. Un modello considerato adeguato al momento del rilascio può comportarsi diversamente mesi dopo o diventare meno efficace nel contesto per cui era stato progettato. Inoltre, quando il livello di maturità AI cresce e il numero di modelli sviluppati e distribuiti aumenta, emerge con forza l'esigenza di una gestione strutturata dei modelli. Per questo l’affidabilità non può essere certificata una volta per tutte. Deve essere verificata nel tempo attraverso monitoraggio, supervisione e la possibilità concreta di intervenire.

Anche la sovranità digitale funziona così. Non è una condizione acquisita con una singola scelta tecnologica, ma una capacità da mantenere nel tempo, mentre tecnologie, dipendenze e rischi continuano a evolvere.

La sovranità digitale non coincide con l'autosufficienza e non richiede l'eliminazione di ogni dipendenza esterna. In un ecosistema tecnologico complesso, questo sarebbe sempre meno realistico e finirebbe per limitare le opzioni disponibili, riducendo paradossalmente la capacità di controllo.

Significa invece assicurarsi che le dipendenze non diventino opache o tali da impedire un cambio di direzione. Significa preservare la capacità di comprendere le tecnologie adottate, valutarne i rischi e intervenire quando non rispondono più alle esigenze dell'organizzazione. Man mano che l'intelligenza artificiale si diffonde, questa libertà dipende sempre di più dalla capacità di governare efficacemente dati, modelli e decisioni.

Per questo la trustworthy AI dovrebbe essere considerata una componente integrante delle strategie di sovranità digitale. Non come un ulteriore requisito normativo da aggiungere alla lista, ma come uno degli strumenti più concreti per preservare controllo, responsabilità e libertà di scelta in un contesto in cui l'AI diventa sempre più parte dei servizi pubblici e dei processi istituzionali.